Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning
扩散模型推理时缩放:渐进式种子剪枝
🧭 扩散模型推理时缩放 · 渐进剪枝
California Institute of Technology
在固定计算量下,通过早期评分并逐步剪枝扩散去噪轨迹,显著提升生成质量
📌 工作参考价值(4 点)
- 生成式推荐中,若采用扩散模型生成物品语义ID,可借鉴PSP思路:在去噪早期使用轻量评分器筛选候选序列,剪枝低分路径,不增加总去噪步数却提升最终ID质量。
- 当业务需要从多个随机种子生成的候选集(如LLM生成多条搜索词)中择优选时,可实施渐进式剪枝:用部分解码结果与指令的相关性进行早期评估,提前丢弃不佳生成,节省完整推理开销。
- 多步推理Agent的动作序列搜索可类比种子筛选,采用粒子滤波式剪枝,在动作分支早期保留高价值路径,控制整体推理成本的同时提高最终任务完成率。
- 工程实现上,PSP的核心是设计一个与最终奖励对齐的中间评分机制;可借鉴其“前端重探索、后端重利用”的调度策略,在固定Token预算下优化生成结果。